Vào ngày 17 tháng 11 năm 2004, Mathijsen có trận ra mắt ở đội tuyển quốc gia trong trận gặp đội tuyển bóng đá quốc gia Andorra, trận này Hà Lan thắng 3-0.

Kể từ trận đấu ở đội tuyển quốc gia đầu tiên, Mathijsen đã trở thành thành phần nòng cốt trong đội tuyển, đặc biệt sau khi gây ấn tượng tại Hamburg. Anh thường chơi ở vị trí trung vệ trái, bởi anh thuận chân trái. Anh được triệu tập vào đội hình đội tuyển bóng đá quốc gia Hà Lan ở Euro 2008 ở Áo và Thụy Sĩ. Đứng trước nguy cơ bị mất chỗ đứng vào tay Wilfred Bouma, anh ngay lập tức có những màn trình diễn đủ thuyết phục để có vị trí chính thức.

Mathijsen cũng chơi cho Cơn lốc màu da cam ở Vòng loại giải vô địch bóng đá thế giới 2010. Anh là người chơi nhiều thời gian nhất trong đội tuyển và là nòng cốt trong thành tích bị lọt lưới ít bàn nhất ở bảng đấu của họ.

World Cup 2010

Mathijsen được triệu tập vào thành phần đội tuyển ở World Cup 2010 ở Nam Phi. Vào ngày 27 tháng 5 năm 2010, huấn luyện viên Bert van Marwijk cho biết cầu thủ sẽ nằm trong danh sách 23 cầu thủ tới giải đấu. Anh chơi từ đầu trong trận đầu tiên của đội tuyển ở giải, trận thắng 2-0 trước đội tuyển bóng đá quốc gia Đan Mạch.